FORGE: Self-Evolving Agent Memory With No Weight Updates via Population Broadcast
FORGE:群体广播实现无权重更新的Agent自进化记忆
🧭 Agent 记忆演化与群体广播 ★ 深度解读
Carleton University · Defence R&D Canada · Cistel Technology
通过种群冠军广播和失败触发反思,无梯度更新下将LLM Agent在POMDP中的表现提升1.7-7.7倍
📌 工作参考价值(4 点)
- 冠军广播机制加速多Agent学习:在Agent集群中,定期选出表现最优实例的文本记忆,替换掉所有其他实例的记忆。这一群体级选择压力能显著压缩策略方差,对电商推荐Agent或对话Agent的群体自改进场景非常实用。
- 文本记忆表示的选择与成本权衡:规则(Rules)型记忆成本低(~40%更少token),示例(Examples)型记忆性能更优(3/4模型取得最高返回),混合型居中。在生成式推荐或商品搜索Agent中,可根据计算预算灵活选择记忆形式。
- 毕业制度节省大规模Agent训练成本:提前冻结已收敛(解决任务)的实例,避免在后续广播中被覆盖或继续消耗token,可直接迁移到需要大量并行Agent训练的电商场景,如多路策略探索后的收敛管理。
- 无梯度、无强模型的自改进范式:利用Reflexion循环从失败轨迹自动提炼结构化知识,完全依赖同模型反思,适合无法微调基座模型的业务环境,例如基于闭源API的智能客服Agent的持续优化。